Đèo được đặt tên theo bản Mả Pì Lèng xã Pải Lủng khi mở đường hồi những năm 1960, trong đó giới chức quản lý cung đường đã sửa đổi "Mả" thành "Mã" để thuận nghe nói trong tiếng phổ thông [2][6].

Mả Pí Lèng (馬鼻梁) là tên gọi theo tiếng H'Mông, chỉ sống mũi con ngựa. Có ý kiến gán nghĩa bóng cho tên gọi này chỉ sự hiểm trở bậc nhất của đỉnh núi, nơi những con ngựa cái leo lên đến đỉnh trụy thai mà chết, nơi dốc cao đến mức con ngựa đi qua phải tắt thở, hoặc đỉnh núi dựng đứng như sống mũi con ngựa [7]. Ngoài ra một số người giàu trí tưởng tượng thì thêu dệt tên đèo là "Máo Pì Lèng", nghĩa là "sống mũi con mèo" [8]. Những ý kiến này không có cơ sở, vì cung đường mới chính thức mở hồi năm 1960, và người H'Mông không nuôi mèo mà con vật thân thiết với họ là con ngựa, cũng như ở đây chưa có con ngựa nào chết vì leo cao cả.

Đỉnh Mã Pí Lèng thuộc ba xã Pải Lủng, Pả Vi huyện Mèo Vạc và xã Tả Lủng huyện Đồng Văn, trong cao nguyên đá Đồng Văn, có độ cao khoảng 1.200 - 1.600 m so với mặt nước biển. Khối núi được tạo nên bởi một loạt trầm tích gồm đá vôi, đá phiến, đá vôi silic chứa các hóa thạch cách đây khoảng 426 triệu năm, bao gồm trong đó nhiều vết trượt và vết nứt do các hoạt động tạo núi gây ra. Cảnh quan khu vực này lởm chởm đá dựng, trong đó vực sâu sông Nho Quế như xẻ đôi một bên là đỉnh Mã Pí Lèng và một bên là Xín Cái, nơi có cột mốc biên giới và cửa khẩu Săm Pun thông thương sang Điền Bồng bên Trung Quốc. Các học giả Pháp, từ cả trăm năm trước, đã gọi đỉnh Mã Pí Lèng nói riêng và Công viên địa chất toàn cầu Cao nguyên đá Đồng Văn nói chung là một "Tượng đài Địa chất". Đi trên đèo Mã Pí Lèng nhìn xuống vực sâu, thì thấy sông Nho Quế chỉ bé như một sợi chỉ.

Người Pháp đến Hà Giang từ năm 1900, họ đã từng khảo sát, từng muốn mở đường lên vùng đất này, vậy mà gần nửa thế kỷ chiếm đóng, họ vẫn không thay đổi được gì, việc tiếp tế cho các đội quân đồn trú của Pháp vẫn phải chuyển theo những con đường mòn cheo leo bằng sức người và ngựa. [9]

Trước những năm 1960 hơn 8 vạn người H'Mông thuộc 4 huyện ở phía sau các dãy núi hùng vĩ của cao nguyên Đồng Văn không có khái niệm con đường. Bao đời họ chỉ biết vượt Mã Pí Lèng bằng cách đóng cọc treo dây trên vách đá để bò qua chín khoanh đèo hun hút, lởm chởm đá tai mèo dựng đứng. Dốc Chín Khoanh leo tới đỉnh Mã Pí Lèng còn gọi là con dốc của Trời [10]. Chính nơi đây từng là giang sơn nơi Vua Mèo treo người không phục mình lên cột cho đến chết và sau vua Mèo là thổ phỉ hoành hành, lấy cán bộ mở đường làm bia tập bắn [11]

Nhằm mục đích giúp vùng núi tiến kịp vùng xuôi, ngày 29 tháng 03 năm 1959, sau 5 năm kể từ năm hòa bình lập lại ở miền Bắc Trung ương Đảng Lao động Việt Nam, Khu ủy Việt Bắc quyết định mở đường Hà Giang - Đồng Văn - Mèo Vạc.

Trước khi mở tuyến, tỉnh Hà Giang có mời hai chuyên gia giao thông từ Trung Quốc qua khảo sát, hi vọng với kinh nghiệm của họ sẽ có một tuyến đường ngắn hơn, dễ thi công hơn, không vướng nhiều đá nhưng tuyến này lại đi cặp sát biên giới Việt - Trung và phương án của ông Phạm Đình Di (trưởng Ty Giao thông Hà Giang và sau này là bí thư Tỉnh ủy Hà Giang) sẽ xây tuyến đường xương sống đi vào nội địa, đường phải có dân sống, đường cho dân đi chứ không thể đưa đường ra biên giới, xa cách với các vùng dân sinh. Mặt khác, nếu đường được mở sát biên giới thì gần như tuyến đường sẽ không đi qua huyện Yên Minh. Nếu làm được tuyến xuyên qua nền đá sẽ hạn chế được nạn sạt lở, nhất là trong mùa mưa bão, nền đường lại cứng hơn. Cuối cùng phương án tuyến đường đi sâu trong nội địa như hiện nay đã được chọn thay cho phương án đi cặp sát biên giới Việt - Trung.[12] Con đường này, về sau mang tên Đường Hạnh Phúc, được khởi công vào ngày 10 tháng 9 năm 1959 với sự tham gia của hơn 1300 thanh niên xung phong cùng hơn 1.000 dân công thuộc 16 dân tộc Mèo, Tày, Dao, Pu Péo, Lô Lô v.v. của 8 tỉnh Cao Bắc Lạng (Cao Bằng, Bắc Kạn, Lạng Sơn), Hà Tuyên Thái (Hà Giang, Tuyên Quang, Thái Nguyên), Hải Hưng, Nam Định. Sau 6 năm xây dựng với 2.946.321 lượt ngày công đục khoét trên 2.899.638m3 đá mà hầu hết trong đó là lao động thủ công không có sự hỗ trợ của máy móc, con đường được hoàn thành hoàn thành vào 15 tháng 6 năm 1965.[9]